Tháng 12 năm Thiên Bình thứ 3 (536), Đông Ngụy thừa tướng Cao Hoan phát động tấn công Tây Ngụy, lệnh Thái từ Đồng Quan tiến vào. Ngày 17 tháng 1 năm thứ 4 (537), Tây Ngụy thừa tướng Vũ Văn Thái đưa kỳ binh ngầm ra Tiểu Quan [3]. Thái biết tin quân Tây Ngụy bất ngờ áp sát, vội lãnh quân từ Phong Lăng độ (bến đò) [4] vượt qua Hoàng Hà, lúc này quân Tây Ngụy đã tiến đến Mã Mục trạch (chằm) [5], không cần nghỉ ngơi, lập tức phát động tấn công quân đội của Thái. Quân Đông Ngụy đại bại, Thái tự sát.

Triều đình Đông Ngụy truy tặng Thái làm Đại tư mã, Thái úy, Lục thượng thư sự, thụy là Vũ Trinh. Thái tuy nhờ thân tình mà được đãi ngộ tốt, nhưng công danh đều tự mình gầy dựng. Nhà Bắc Tề lên ngôi, tế cáo mộ của ông. Đầu những năm Hoàng Kiến (560 – 561), được thờ trong miếu đình của Thần Vũ đế (Cao Hoan). Con là Hiếu Kính kế tự, làm đến Nghi đồng tam tư.